Malaysia tham gia Thế vận hội lần đầu năm 1964, và từ đó đã liên tục gửi các vận động viên (VĐV) tới các kỳ Thế vận hội Mùa hè, trừ lần tẩy chay Thế vận hội Mùa hè 1980. Malaysia lần đầu tiên tham dự Thế vận hội Mùa đông năm 2018.Liên bang Mã Lai (nay là các bang Tây Malaysia) hiện diện tại đại hội với tên Mã Lai (MAL) vào các năm 1956 và 1960. Bang Sabah ngày nay từng gửi đoàn thể thao riêng tới kỳ năm 1956 với tư cách Bắc Borneo, và Singapore cũng từng dự Thế vận hội từ 1948 tới 1960. Sau khi các vùng thuộc địa Anh này liên minh với nhau lập thành nước Malaysia độc lập năm 1963, quốc gia mới góp mặt lần đầu tại Thế vận hội Mùa hè 1964. Malaysia sử dụng mã quốc gia MAL của Mã Lai cho tới 1988 khi mã MAS bắt đầu được dùng. Singapore sau này tái độc lập khỏi Malaysia năm 1965 và lại tham gia với tư cách Singapore từ 1968 trở đi.Các VĐV Malaysia đã giành 11 huy chương Olympic, 8 trong số đó thuộc môn cầu lông, 2 thuộc môn nhảy cầu và 1 thuộc môn đạp xe. Punch Gunalan và Ng Boon Bee là những VĐV Malaysia đầu tiên đạt thành tích có thể xếp huy chương khi vào đến trận chung kết đôi nam cầu lông tại Thế vận hội Mùa hè 1972. Tuy nhiên, cầu lông tại kỳ năm 1972 là môn trình diễn với mục đích giới thiệu tới đại hội, nên không có huy chương chính thức. Đến năm 1992, Malaysia mới có tấm huy chương Olympic đầu tiên. VĐV Malaysia thành công nhất tại Thế vận hội tính theo số huy chương đoạt được là Lee Chong Wei với 3 bạc môn cầu lông.[cần dẫn nguồn]Ủy ban Olympic quốc gia của Mã Lai được thành lập năm 1953 và được công nhận bởi Ủy ban Olympic Quốc tế năm 1954. Ủy ban này sau đó trở thành Ủy ban Olympic quốc gia của Malaysia.